Rybak sinh ngày 13 tháng 5,1986 ở Minsk, Belarus. Năm 4 tuổi, anh và gia đình chuyển đến sinh sống ở Na Uy.[1] Rybak được rửa tội và theo đạo Chính Thống giáo.[2] Năm tuổi, anh bắt đầu học chơi dương cầm và vĩ cầm.[1] Mẹ anh là Natalia Valentinovna Rybak, một nghệ sĩ dương cầm cổ điển người Nga, cha anh là Igor Alexandrovich Rybak, một nghệ sĩ vĩ cầm cổ điển nổi tiếng người Belarus.[3] Rybak đã có thể tự mua cho mình một căn hộ và hiện đang sống ở khu Aker Brygge (Oslo, Na Uy). Anh nói lưu loát tiếng Na Uy, tiếng Nga, tiếng Thụy Điển, tiếng Anh và biểu diễn các ca khúc bằng cả bốn ngôn ngữ này.